Máy học là gì? Các công bố khoa học về Máy học

Protein là yếu tố thiết yếu của sự sống, và việc hiểu cấu trúc của chúng có thể tạo điều kiện thuận lợi cho việc hiểu cơ chế hoạt động của chúng. Thông qua một nỗ lực thử nghiệm khổng lồ^1–4, cấu trúc của khoảng 100.000 protein độc nhất đã được xác định⁵, nhưng điều này chỉ đại diện cho một phần nhỏ trong hàng tỷ chuỗi protein đã biết^6,7. Phạm vi bao phủ cấu trúc đang bị thắt nút bởi thời gian từ vài tháng đến vài năm cần thiết để xác định cấu trúc của một protein đơn lẻ. Các phương pháp tính toán chính xác là cần thiết để giải quyết vấn đề này và cho phép tin học cấu trúc lớn. Việc dự đoán cấu trúc ba chiều mà một protein sẽ chấp nhận chỉ dựa trên chuỗi axit amin của nó - thành phần dự đoán cấu trúc của 'vấn đề gấp nếp protein'⁸ - đã là một vấn đề nghiên cứu mở quan trọng trong hơn 50 năm⁹. Dù đã có những tiến bộ gần đây^10–14, các phương pháp hiện tại vẫn chưa đạt đến độ chính xác nguyên tử, đặc biệt khi không có cấu trúc tương đồng nào được biết đến. Tại đây, chúng tôi cung cấp phương pháp tính toán đầu tiên có khả năng dự đoán cấu trúc protein với độ chính xác nguyên tử ngay cả trong trường hợp không có cấu trúc tương tự nào được biết. Chúng tôi đã xác nhận một phiên bản thiết kế hoàn toàn mới của mô hình dựa trên mạng neuron, AlphaFold, trong cuộc thi Đánh giá Cấu trúc Protein Phê bình lần thứ 14 (CASP14)¹⁵, cho thấy độ chính xác có thể cạnh tranh với các cấu trúc thử nghiệm trong phần lớn các trường hợp và vượt trội hơn các phương pháp khác đáng kể. Cơ sở của phiên bản mới nhất của AlphaFold là cách tiếp cận học máy mới kết hợp kiến thức vật lý và sinh học về cấu trúc protein, tận dụng các sắp xếp nhiều chuỗi, vào thiết kế của thuật toán học sâu.

Học máy (Machine learning) nghiên cứu vấn đề làm thế nào để xây dựng các hệ thống máy tính tự động cải thiện qua kinh nghiệm. Đây là một trong những lĩnh vực kỹ thuật phát triển nhanh chóng hiện nay, nằm tại giao điểm của khoa học máy tính và thống kê, và là cốt lõi của trí tuệ nhân tạo và khoa học dữ liệu. Tiến bộ gần đây trong học máy được thúc đẩy bởi sự phát triển của các thuật toán và lý thuyết học mới cùng với sự bùng nổ liên tục trong việc sẵn có dữ liệu trực tuyến và khả năng tính toán chi phí thấp. Việc áp dụng các phương pháp học máy dựa trên dữ liệu đã xuất hiện trong khoa học, công nghệ và thương mại, dẫn đến việc ra quyết định dựa trên bằng chứng trong nhiều lĩnh vực cuộc sống, bao gồm chăm sóc sức khỏe, sản xuất, giáo dục, mô hình tài chính, cảnh sát và tiếp thị.

Có nhiều khía cạnh có thể ảnh hưởng đến hiệu suất đạt được bởi các hệ thống học hiện tại. Đã có báo cáo rằng một trong những khía cạnh này liên quan đến sự mất cân bằng lớp, trong đó các ví dụ trong dữ liệu huấn luyện thuộc về một lớp nào đó vượt trội số lượng so với các ví dụ thuộc lớp khác. Trong tình huống này, xảy ra trong dữ liệu thế giới thực mô tả một sự kiện hiếm nhưng quan trọng, hệ thống học có thể gặp khó khăn trong việc học khái niệm liên quan đến lớp thiểu số. Trong nghiên cứu này, chúng tôi thực hiện một đánh giá thực nghiệm rộng rãi với mười phương pháp, trong đó ba phương pháp do các tác giả đề xuất, nhằm giải quyết vấn đề mất cân bằng lớp trong mười ba tập dữ liệu UCI. Các thí nghiệm của chúng tôi cung cấp bằng chứng rằng sự mất cân bằng lớp không làm giảm hiệu suất của các hệ thống học một cách hệ thống. Thực tế, vấn đề dường như liên quan đến việc học với quá ít ví dụ thuộc lớp thiểu số trong bối cảnh có các yếu tố phức tạp khác, chẳng hạn như sự chồng chéo lớp. Hai phương pháp do chúng tôi đề xuất xử lý trực tiếp các điều kiện này, kết hợp một phương pháp tăng mẫu đã biết với các phương pháp làm sạch dữ liệu nhằm tạo ra các cụm lớp được định nghĩa rõ hơn. Các thí nghiệm so sánh của chúng tôi cho thấy, nói chung, các phương pháp tăng mẫu cung cấp kết quả chính xác hơn so với các phương pháp giảm mẫu khi xem xét diện tích dưới đường cong ROC (AUC). Kết quả này dường như mâu thuẫn với các kết quả được công bố trước đó trong tài liệu. Hai phương pháp mà chúng tôi đề xuất, Smote + Tomek và Smote + ENN, đã trình bày kết quả rất tốt cho các tập dữ liệu có số lượng ví dụ dương nhỏ. Hơn nữa, phương pháp tăng mẫu ngẫu nhiên, một phương pháp rất đơn giản, lại rất cạnh tranh so với các phương pháp tăng mẫu phức tạp hơn. Vì các phương pháp tăng mẫu cung cấp kết quả hiệu suất rất tốt, chúng tôi cũng đo lường độ phức tạp cú pháp của các cây quyết định được tạo ra từ dữ liệu đã tăng mẫu. Kết quả của chúng tôi cho thấy rằng các cây này thường phức tạp hơn so với những cây được tạo ra từ dữ liệu gốc. Tăng mẫu ngẫu nhiên thường tạo ra sự gia tăng nhỏ nhất về số lượng quy tắc được tạo ra và Smote + ENN có sự gia tăng nhỏ nhất về số lượng điều kiện trung bình trên mỗi quy tắc, khi được so sánh giữa các phương pháp tăng mẫu được điều tra.

Nhờ vào những tiến bộ trong công suất xử lý, bộ nhớ, lưu trữ và kho dữ liệu chưa từng có, máy tính đang được yêu cầu giải quyết những nhiệm vụ học tập ngày càng phức tạp, thường đạt được thành công bất ngờ. Máy tính giờ đây đã thành thạo một biến thể phổ biến của trò chơi poker, học các luật vật lý từ dữ liệu thực nghiệm, và trở thành chuyên gia trong các trò chơi điện tử - những nhiệm vụ mà không lâu trước đây được coi là không thể thực hiện. Song song với đó, số lượng các công ty tập trung vào việc áp dụng phân tích dữ liệu phức tạp vào các ngành công nghiệp đa dạng đã bùng nổ, do đó không có gì đáng ngạc nhiên khi một số công ty phân tích đang chuyển sự chú ý đến các vấn đề trong lĩnh vực chăm sóc sức khỏe. Mục đích của bài đánh giá này là khám phá những vấn đề trong y học có thể được hưởng lợi từ các phương pháp học tập như vậy và sử dụng các ví dụ từ tài liệu để giới thiệu những khái niệm cơ bản trong học máy. Điều quan trọng là lưu ý rằng các tập dữ liệu y tế có vẻ đủ lớn và các thuật toán học tập thích hợp đã có sẵn trong nhiều thập kỷ, và mặc dù có hàng ngàn tài liệu áp dụng các thuật toán học máy vào dữ liệu y tế, rất ít trong số đó đã góp phần đáng kể vào việc chăm sóc lâm sàng. Sự thiếu tác động này nổi bật đối lập với sự liên quan khổng lồ của học máy đối với nhiều ngành công nghiệp khác. Do đó, một phần nỗ lực của tôi sẽ là xác định những trở ngại nào có thể tồn tại trong việc thay đổi thực hành y học thông qua các phương pháp học thống kê và thảo luận về cách thức vượt qua những trở ngại này.

Các hệ thống máy bay không người lái (UAS) đã phát triển nhanh chóng trong thập kỷ qua, chủ yếu nhờ vào các ứng dụng quân sự, và đã bắt đầu có chỗ đứng trong số các người dùng dân sự cho mục đích trinh sát cảm biến trái đất và thu thập dữ liệu khoa học. Trong số các UAS, những đặc điểm hứa hẹn bao gồm thời gian bay dài, độ an toàn trong nhiệm vụ được cải thiện, khả năng lặp lại chuyến bay nhờ vào việc nâng cấp hệ thống lái tự động, và giảm chi phí vận hành so với máy bay có người lái. Tuy nhiên, những lợi thế tiềm năng của một nền tảng không người lái phụ thuộc vào nhiều yếu tố, chẳng hạn như loại máy bay, loại cảm biến, mục tiêu của nhiệm vụ, và các yêu cầu quy định hiện hành dành cho hoạt động của nền tảng cụ thể. Các quy định liên quan đến việc vận hành UAS vẫn đang trong giai đoạn phát triển ban đầu và hiện tại tạo ra rào cản đáng kể cho người dùng khoa học. Trong bài viết này, chúng tôi mô tả nhiều loại nền tảng, cũng như khả năng của các cảm biến, và xác định những lợi thế của mỗi nền tảng liên quan đến các yêu cầu của người dùng trong lĩnh vực nghiên cứu khoa học. Chúng tôi cũng sẽ thảo luận ngắn gọn về tình trạng hiện tại của các quy định ảnh hưởng đến hoạt động của UAS, với mục đích thông báo cho cộng đồng khoa học về công nghệ đang phát triển này, mà tiềm năng cách mạng hóa quan sát khoa học tự nhiên tương tự như những biến đổi mà GIS và GPS đã mang lại cho cộng đồng hai thập kỷ trước.

Những lỗ hổng mới nổi đòi hỏi các cuộc thảo luận mới

Một thí nghiệm trong chậu được thực hiện để so sánh hai chiến lược xử lý ô nhiễm bằng thực vật: tích tụ tự nhiên sử dụng thực vật siêu tích tụ Zn và Cd là Thlaspi caerulescens J. Presl & C. Presl so với chiết xuất cải tiến hóa học sử dụng ngô (Zea mays L.) được xử lý bằng axit ethylenediaminetetraacetic acid (EDTA). Nghiên cứu sử dụng đất bị ô nhiễm công nghiệp và đất nông nghiệp bị ô nhiễm kim loại từ bùn thải. Ba vụ mùa của T. caerulescens trồng trong vòng 391 ngày đã loại bỏ hơn 8 mg kg⁻¹ Cd và 200 mg kg⁻¹ Zn từ đất bị ô nhiễm công nghiệp, tương đương 43% và 7% các kim loại trong đất. Ngược lại, nồng độ Cu cao trong đất nông nghiệp đã làm giảm nghiêm trọng sự phát triển của T. caerulescens, do đó hạn chế tiềm năng chiết xuất của nó. Quá trình xử lý bằng EDTA đã tăng đáng kể tính hòa tan của kim loại nặng trong cả hai loại đất, nhưng không dẫn đến tăng lớn hàm lượng kim loại trong chồi ngô. Chiết xuất Cd và Zn bằng ngô + EDTA nhỏ hơn nhiều so với T. caerulescens từ đất bị ô nhiễm công nghiệp, và nhỏ hơn (Cd) hoặc tương tự (Zn) so với đất nông nghiệp. Sau khi xử lý bằng EDTA, kim loại nặng hòa tan trong nước lỗ chân lông của đất chủ yếu tồn tại dưới dạng phức hợp EDTA-kim loại, duy trì trong vài tuần. Hàm lượng cao của kim loại nặng trong nước lỗ chân lông sau quá trình xử lý EDTA có thể gây nguy cơ môi trường dưới dạng ô nhiễm nước ngầm.

Mục tiêu chính của nghiên cứu này là đánh giá và so sánh hiệu suất của các thuật toán học máy (ML) khác nhau, cụ thể là Mạng Nơron Nhân Tạo (ANN), Máy Học Tăng Cường (ELM) và thuật toán Cây Tăng Cường (Boosted), khi xem xét ảnh hưởng của các tỷ lệ đào tạo đối với kiểm tra trong việc dự đoán độ bền cắt của đất, một trong những tính chất kỹ thuật địa chất quan trọng nhất trong thiết kế và xây dựng công trình. Để thực hiện điều này, một cơ sở dữ liệu gồm 538 mẫu đất thu thập từ dự án nhà máy điện Long Phú 1, Việt Nam, đã được sử dụng để tạo ra các bộ dữ liệu cho quá trình mô hình hóa. Các tỷ lệ khác nhau (tức là 10/90, 20/80, 30/70, 40/60, 50/50, 60/40, 70/30, 80/20, và 90/10) đã được sử dụng để chia bộ dữ liệu thành bộ dữ liệu đào tạo và kiểm tra nhằm đánh giá hiệu suất của các mô hình. Các chỉ số thống kê phổ biến, chẳng hạn như Lỗi Bình Phương Trung Bình (RMSE), Lỗi Tuyệt Đối Trung Bình (MAE) và Hệ Số Tương Quan (R), đã được sử dụng để đánh giá khả năng dự báo của các mô hình dưới các tỷ lệ đào tạo và kiểm tra khác nhau. Ngoài ra, mô phỏng Monte Carlo đã được thực hiện đồng thời để đánh giá hiệu suất của các mô hình đề xuất, có tính đến ảnh hưởng của lấy mẫu ngẫu nhiên. Kết quả cho thấy mặc dù cả ba mô hình ML đều hoạt động tốt, nhưng ANN là mô hình chính xác nhất và ổn định nhất về mặt thống kê sau 1000 lần mô phỏng Monte Carlo (R Trung Bình = 0.9348) so với các mô hình khác như Boosted (R Trung Bình = 0.9192) và ELM (R Trung Bình = 0.8703). Điều tra về hiệu suất của các mô hình cho thấy khả năng dự báo của các mô hình ML bị ảnh hưởng lớn bởi các tỷ lệ đào tạo/kiểm tra, trong đó tỷ lệ 70/30 thể hiện hiệu suất tốt nhất của các mô hình. Một cách ngắn gọn, kết quả được trình bày ở đây thể hiện một cách thức hiệu quả trong việc lựa chọn các tỷ lệ dữ liệu phù hợp và mô hình ML tốt nhất để dự đoán chính xác độ bền cắt của đất, điều này sẽ hữu ích trong các giai đoạn thiết kế và kỹ thuật của các dự án xây dựng.

Các Mạng Nơ-ron Có Thông Tin Vật Lý (PINN) là các mạng nơ-ron (NN) mà trong đó nội dung các phương trình mô hình, như Phương Trình Vi Phân Bộ (PDE), được mã hóa như một thành phần của chính mạng nơ-ron. Hiện nay, PINNs được sử dụng để giải các phương trình PDE, phương trình phân thức, phương trình tích phân-vi phân, và các phương trình PDE ngẫu nhiên. Phương pháp mới này đã xuất hiện như một khuôn khổ học tập đa nhiệm trong đó một NN phải khớp với dữ liệu quan sát trong khi giảm thiểu phần dư của PDE. Bài viết này cung cấp một đánh giá toàn diện về tài liệu liên quan đến PINNs: trong khi mục tiêu chính của nghiên cứu là xác định đặc điểm của các mạng này cùng những ưu điểm và nhược điểm liên quan của chúng. Đánh giá này cũng cố gắng đưa vào các công bố về một phạm vi rộng hơn của các mạng nơ-ron có thông tin vật lý dựa trên phương pháp phân bố điểm, mà xuất phát từ PINN cơ bản, cũng như nhiều biến thể khác, chẳng hạn như mạng nơ-ron bị hạn chế bởi vật lý (PCNN), hp-VPINN biến thiên, và PINN bảo tồn (CPINN). Nghiên cứu chỉ ra rằng hầu hết các nghiên cứu đã tập trung vào việc tùy chỉnh PINN qua các hàm kích hoạt khác nhau, kỹ thuật tối ưu hóa gradient, cấu trúc mạng nơ-ron, và cấu trúc hàm mất mát. Mặc dù có nhiều ứng dụng mà PINN đã được sử dụng, thông qua việc chứng minh khả năng của chúng dễ thực hiện hơn trong một số bối cảnh so với các kỹ thuật số truyền thống như Phương Pháp Phần Tử Hữu Hạn (FEM), vẫn còn những tiến bộ có thể xảy ra, đặc biệt là các vấn đề lý thuyết vẫn chưa được giải quyết.